Nysa jest jednym z najstarszych miast śląskich. Prawdopodobnie już w X wieku istniała tu osada. Według Jana Długosza Nysę jako gród miał założyć Bolesław Krzywousty . Jednak nie odgrywał on wówczas większej roli, gdyż nadgraniczna kasztelania znajdowała się w pobliskim Otmuchowie. Sytuacja zmieniła się, gdy książę Bolesław I Wysoki ofiarował swemu synowi Jarosławowi kasztelanię otmuchowską wraz z przylegającymi do niej dobrami. Jarosław, który w latach 1198-1201 był biskupem wrocławskim, przekazał w testamencie swoim następcom na stolicy biskupiej Nysę i kilkanaście wsi. Z czasem na tej bazie utworzono biskupie księstwo nysko-otmuchowskie, które sukcesywnie powiększało się, a Nysa stała się jego stolicą.
W 1198 r. biskup Jarosław miał konsekrować kościół św. Jakuba i św. Agnieszki. Nie wiadomo, czy była to pierwsza nyska świątynia, ponieważ źródła z 1240 r. wymieniają kościół św. Jana Chrzciciela na Starym Mieście, patrona diecezji wrocławskiej, który umieszczony był w najstarszym herbie miejskim . Nysa po raz pierwszy została wzmiankowana w 1223 roku, kiedy to została lokowana na prawie flamandzkim (w 1308 r. została przeniesiona na prawo magdeburskie). Z początkiem XIV wieku, wedle życzenia Henryka Probusa, stała się miastem stołecznym Księstwa Nyskiego. Utworzone przez niego księstwo nyskie do 1810 r. (sekularyzacja dóbr kościelnych przez króla pruskiego Fryderyka Wilhema III) rozrastało się pod względem terytorialnym, ludnościowym i prawnym, gdyż posiadało i stanowiło swe własne prawa, np. prawo warzenia piwa.
W okresie wojen husyckich, podczas bitwy w 1428 r. zniszczone zostały przez husytów wszystkie przedmieścia Nysy. Nie zahamowało to jednak rozwoju miasta. Na początku XV wieku Nysa stała się jednym z najludniejszych miast śląskich. Zamieszkiwało ją wtedy około 5000 osób. Nysa to znany ośrodek edukacyjny – już od średniowiecza, od 1417, istniała szkoła parafialna, przekształcona w następnych wiekach w znane gimnazjum. W 1497 roku na rynku w Nysie został ścięty przedostatni książę opolski – Mikołaj II. Dogodne położenie miasta na przecięciu szlaków handlowych z Pragi i Kłodzka do Opola i dalej do Krakowa sprzyjało rozwojowi gospodarczemu miasta. W księstwie kwitł handel, organizowane były dwa targi w dniach św. Jakuba i św. Agnieszki, które gromadziły kupców z Austrii, Czech, Moraw i Węgier. Również rzemiosło przeżywało rozkwit, powstały m.in. cechy farbiarzy czy złotników. Dodatkowe przywileje, jak np. prawo składu, prawo przymusu drogowego czy prawo bicia własnej monety, przysparzały sławy i podnosiły rangę miasta.
Ostatnim razem zamieniono miasto w twierdzę w 1945 roku. Najgorszy pogrom miasta odbył się w marcu 1945 roku. Nysa została zajęta przez Armię Czerwoną w stanie niemal nienaruszonym. Pijani żołnierze sowieccy doprowadzili do wypalenia całego zabytkowego śródmieścia . Zniszczonych zostało wiele budynków, m.in. Dom Wagi Miejskiej (po wojnie odbudowany) oraz gotycka, 94-metrowa, wieża ratuszowa, najwyższa, jak dotąd, budowla miasta (odbudowana wraz z kamieniczkami w 2009 roku). Ogółem zniszczeniu uległo ok. 60% zabudowy miasta. W wyniku klęski Niemiec i decyzji zwycięskich mocarstw w 1945 r. Nysa po sześciu wiekach zostaje ponownie włączona do Polski. Po zdobyciu miasta następuje częściowa odbudowa i zabezpieczenie cenniejszych obiektów. Polityka ta zmienia się w pierwszej połowie lat 50., kiedy Miejski Oddział Rozbiórkowo-Porządkowy nakazuje wyburzenie większości ruin Starego Miasta w celu dostarczenia cegieł przeznaczonych do odbudowy Warszawy (tylko w 1954 r. Warszawa wyznaczyła dla Nysy kontyngent 12 mln sztuk cegły rozbiórkowej). Od lat 60. następuje ponowna odbudowa i rozbudowa miasta, powstają zakłady przemysłowe, m.in. Zakład Samochodów Dostawczych (produkujący popularne w latach 60., 70., 80. i 90. samochody dostawcze ZSD Nysa), przemysł spożywczy, metalowy. Budowane są nowe osiedla, obiekty użyteczności publicznej oraz jezioro zaporowe na Nysie Kłodzkiej.